Ja n 19 99 ON RELATIVE NORMAL MODES

We generalize theWeinstein-Moser theorem on the existence of nonlinear normal modes near an equilibrium in a Hamiltonian system to a theorem on the existence of relative periodic orbits near a relative equilibrium in a Hamiltonian system with continuous symmetries. In particular we prove that under appropriate hypotheses there exist relative periodic orbits near relative equilibria even when these relative equilibria are singular points of the corresponding moment map, i.e. when the reduced spaces are singular. Sur les oscillations normales relatives RÉSUMÉ. On généralise le théorème d’existence de Weinstein-Moser des oscillations normales nonlinéaires voisines d’un équilibre dans un système hamiltonien, à un théorème d’existence des orbites périodiques relatives voisines d’un équilibre relatif dans un système hamiltonien à symétrie continue. Entre autres on démontre, moyennant quelques hypothèses, qu’il existe des orbites périodiques relatives près des équilibres relatifs même lorsque ceux-ci sont des points singuliers de l’application de moment, c’est-à-dire lorsque les espaces réduits sont singuliers. Version française abrégée. Dans cette note on généralise le théorème de Weinstein-Moser [W1, Ms, W2, MnRS, B] sur les oscillations normales non-linéaires voisines d’un équilibre dans un système hamiltonien, à un théorème sur les orbites périodiques relatives voisines d’un équilibre relatif dans un système hamiltonien symétrique. Soit M une variété symplectique munie d’une opération hamiltonienne d’un groupe de Lie connexe G et donc d’une application de moment Φ : M → g∗. Une orbite du champs hamiltonien Xh d’un hamiltonien G-invariant h ∈ C ∞(M)G est un équilibre relatif [resp. une orbite périodique relative] si son image dans M/G est un point [resp. un lacet]. Les améliorations ultérieures du théorème deWeinstein-Moser se prêtent toutes à des généralisations par notre méthode; néanmoins, afin de ne pas alourdir l’exposé on traitera seulement la version originale: Théorème de Weinstein. [W1] Soit h un hamiltonien sur un vectoriel symplectique V avec dh(0) nul et d2h(0) défini positif. Alors pour tout ε > 0 petit, h−1(h(0)+ε) porte au moins 12 dimV orbites périodiques de Xh. Soit x ∈ M un point d’un équilibre relatif pour un hamiltonien G-invariant. Existe-t-il des orbites périodiques relatives voisines? A cela nulle difficulté si x est un point régulier de Φ, ou même dans le cas singulier si la dimension de la strate de son image x̄ dans l’espace réduit est strictement positive, car le problème se ramène alors au théorème de Weinstein sur cette strate, qui est stable par rapport à la dynamique de l’espace réduit stratifié [AMM, SL]. Mais que dire si la strate de x̄ est un point? On verra qu’en l’occurrence il existe encore des familles d’orbites périodiques relatives voisines de l’équilibre relatif, pourvu qu’un certain ‘remplaçant’ du hessien soit défini en tant que forme